Klinsmann có một sự nghiệp thi đấu quốc tế thành công, khoác áo đội tuyển Đức từ năm 1987 và ghi được 47 bàn thắng trong tổng cộng 108 trận đấu. Ông tham gia vào Thế vận hội mùa hè 1988, đoạt được huy chương đồng; Euro 1988, Euro 1992 và Euro 1996, lọt vào trận chung kết năm 1992 và vô địch năm 1996. Ông cũng góp phần quan trọng vào chức vô địch thế giới của đội tuyển Đức tại World Cup 1990 (ông ghi được 3 bàn ở giải này). Cùng với 5 bàn tại World Cup 1994 và 3 bàn tại World Cup 1998, ông là cầu thủ đầu tiên ghi được ít nhất 3 bàn thắng tại 3 kì World Cup, thành tích này mới có Ronaldo của Brasil và Miroslav Klose cũng của đội tuyển Đức lập lại được. Ông cũng xếp thứ ba (sau Miroslav Klose và Gerd Muller) về số bàn thắng ghi cho đội tuyển Đức tại World Cup với 11 bàn.